一台AI伺服器很可能先用完記憶體，再用完算力。訓練把權重、啟動值和最佳化器同時堆進HBM；推理讓KV快取隨上下文和並行膨脹；Agent又把狀態佔用拉長到幾分鐘甚至更久。 一、昂貴的GPU為什麼還會停下來等資料 一台裝著高端GPU的伺服器開始工作後，資料會沿著一條很清楚的路徑移動。最熱的權重、啟動值和KV快取留在HBM，CPU正在處理的索引和工具狀態放在系統DRAM，更冷的會話與檢查點繼續下沉到CXL記憶體和SSD。任何一層供數太慢，GPU都只能等待。 記憶體需求因此有四本帳。模型帳記錄權重和執行階段緩衝，訓練帳記錄梯度、最佳化器和啟動值，推理帳記錄每條會話的KV快取，系統帳則裝著資料集、索引、檢查點和工具狀態。四本帳會在同一台機器裡重疊，卻由完全不同的變數驅動。

5個月，估值漲近10倍。 智東西9月2日消息，今日，據《福布斯》援引兩名知情人士消息，美國AI訓練資料初創公司AfterQuery估值已達到32億美元。一名知情人士稱，該公司目前已經實現盈利，並為新一輪融資確定了領投方。具體融資金額及投資方身份尚未公佈，AfterQuery對此拒絕置評。 五個月前，AfterQuery的估值還只有3億美元，其估值在五個月內增長約10倍。AfterQuery曾入選YC 2025年冬季創業加速項目，YC合夥人格斯塔夫·阿爾斯特羅默（Gustaf Alströmer）稱，該公司從成立到躋身獨角獸僅用了約18個月，是YC歷史上完成這一跨越速度最快的創業公司。 AfterQuery於2025年2月成立，總部位於美國舊金山，併入選YC 2025年冬季批次。該公司聯合創始人斯賓塞·馬蒂加（Spencer Mateega）和卡洛斯·喬治斯庫（Carlos Georgescu）創辦AfterQuery時仍在讀大學，在嘗試開發金融Agent一段時間後，他們將公司轉向為前沿大模型提供專家推理資料、強化學習環境和模型評測服務。

人形機器人距離真正走入現實世界，需要跨過一道關鍵門檻：資料。 過去幾年，AI機器人公司Figure一直試圖打造通用人形機器人智能系統。其推出機器人基礎模型Helix，希望讓機器人具備類似人類的視覺理解、任務規劃和動作執行能力，並逐漸從實驗室走向家庭、工廠和商業環境。 但隨著模型能力不斷提升，一個越來越明顯的問題浮現出來：機器人缺少足夠多的現實世界經驗。 對於大語言模型而言，網際網路提供了海量文字作為學習材料。但機器人面對的是物理世界，需要理解人與物體、環境之間複雜的互動關係。這些能力無法僅靠文字和模擬環境獲得，而需要大量真實世界中的人類行為資料。

記憶體晶片概念股再度異動！ 今日（8月5日），A股記憶體晶片概念股大幅走高，江化微、時空科技、博傑股份、中巨芯等直線拉升漲停，中微公司、兆易創新、江波龍、佰維記憶體等紛紛沖高。截至午盤，記憶體晶片類股整體漲幅超過6%，漲停或漲幅超過10%的個股接近30隻。 當天，在韓國證券市場上，SK海力士漲超6%，三星電子漲近4%。隔夜，美股記憶體概念股集體大漲，閃迪漲超10%，美光科技漲超7%，SK海力士ADR漲超8%。 市場分析人士認為，記憶體晶片類股走強主要受基本面驅動。全球AI算力部署提速，持續拉動DRAM需求，當前供給缺口未見縮小，行業量價齊升勢頭明確，頭部廠商盈利屢超預期。多家研究機構預判，DRAM供不應求格局將至少延續至2027年。

投資人信了。 兩年前，OpenAI 拿出 5 億美元想買下 Medal，一個遊戲錄影分享平台。創始人 Pim de Witte 拒絕了。 這個決定當時看起來可能有點莽。 General Intuition 創始人 Pim de Witte｜圖片來源：techcrunch

Sakana AI提出大模型訓練新思路。 智東西6月22日報導，今天，日本AI獨角獸Sakana AI發佈了Sakana Fugu系列編排器模型，包括Fugu Ultra和Fugu兩款模型。其中Fugu Ultra模型在工程、科學和推理基準測試中，性能接近或超越了Fable 5以及Mythos Preview等頂尖模型。 和傳統大語言模型不同的是，Sakana Fugu不會自己回答問題，它會呼叫世界上各種模型來完成任務。簡單來說，Sakana Fugu像一個“總指揮”，會根據任務選擇最佳的模型來處理。 Fugu在日文中是河豚的意思，從官方發佈的動畫可以看出，Sakana Fugu是要用多個“小魚”匯聚成一個“大河豚”這種美味食材。

當前，生成式 AI 正由技術探索邁向產業深度應用，大模型訓練、微調、推理、部署全流程最佳化，已成為企業實現 AI 高效落地、提升核心競爭力的關鍵支撐。IDC 發佈《大模型訓練推理最佳化部署的最佳實踐》報告，基於行業實踐與技術演進趨勢，系統梳理大模型全生命周期關鍵最佳化技術，並結合產業真實案例，為企業提供系統、可落地的技術指引。 01. 生成式 AI 落地提速，市場需求持續攀升 生成式 AI 應用正從網際網路場景向金融、製造、醫療、能源、政府與公共事業等核心行業全面滲透，由單點試點轉向規模化部署。據 IDC 調研與預測： 2026 年近半數中國企業部署的生成式 AI 應用場景將達到 10 個以上，AI 智能體成為數位化轉型核心驅動力；

當前，生成式 AI 正由技術探索邁向產業深度應用，大模型訓練、微調、推理、部署全流程最佳化，已成為企業實現 AI 高效落地、提升核心競爭力的關鍵支撐。IDC 發佈《大模型訓練推理最佳化部署的最佳實踐》報告，基於行業實踐與技術演進趨勢，系統梳理大模型全生命周期關鍵最佳化技術，並結合產業真實案例，為企業提供系統、可落地的技術指引。 1 生成式 AI 落地提速，市場需求持續攀升 生成式 AI 應用正從網際網路場景向金融、製造、醫療、能源、政府與公共事業等核心行業全面滲透，由單點試點轉向規模化部署。據 IDC 調研與預測： ● 2026 年近半數中國企業部署的生成式 AI 應用場景將達到 10 個以上，AI 智能體成為數位化轉型核心驅動力；